A double large prime variation for small genus hyperelliptic index calculus

In this article, we examine how the index calculus approach for computing discrete logarithms in small genus hyperelliptic curves can be improved by introducing a double large prime variation. Two algorithms are presented. The first algorithm is a rather natural adaptation of the double large prime variation to the intended context. On heuristic and experimental grounds, it seems to perform quite well but lacks a complete and precise analysis. Our second algorithm is a considerably simplified variant, which can be analyzed easily. The resulting complexity improves on the fastest known algorithms. Computer experiments show that for hyperelliptic curves of genus three, our first algorithm surpasses Pollard’s Rho method even for rather small field sizes. Key-words: cryptology, algorithmics, hyperelliptic curves, discrete logarithm ∗ CNRS, LIX, École polytechnique † INRIA Futurs, projet TANC ‡ INRIA Lorraine, projet SPACES § CACR, University of Waterloo ¶ Universität Leipzig Calcul de logarithmes discrets sur des courbes hyperelliptiques de petit genre en utilisant une double large prime variation Résumé : Nous présentons et analysons un nouvel algorithme pour résoudre des problèmes de logarithme discret dans les jacobiennes de courbes hyperelliptiques de petit genre. Cet algorithme utilise la technique de la double large prime variation, dans le cadre d’un algorithme de calcul d’index classique. Nous obtenons une analyse rigoureuse grâce à l’introduction d’un algorithme simplifié. La complexité obtenue est meilleure que celle des algorithmes connus précédemment pour résoudre le problème fixé dans ce contexte. Le résultat théorique est corroboré par l’expérimentation : nous avons démontré que des courbes de genre 3 sont davantage vulnérables à notre attaque qu’à l’algorithme Rho de Pollard, et ce même pour des tailles de groupes modérées. Mots-clés : cryptologie, algorithmique, courbes hyperelliptiques, logarithme discret A double large prime variation for hyperelliptic index calculus 3